O Superior Tribunal de Justiça (STJ) abriu, nesta quarta-feira, 20, um inquérito e um procedimento administrativo para investigar o uso da técnica conhecida como “prompt injection” em processos judiciais. A prática consiste em inserir comandos ocultos em documentos para tentar manipular ferramentas de inteligência artificial usadas pelo Judiciário.

Segundo o tribunal, a apuração busca identificar possíveis tentativas de fraude processual envolvendo petições apresentadas por advogados e escritórios de advocacia. A decisão foi tomada após técnicos do STJ detectarem processos com indícios da utilização do método.

A chamada “prompt injection” funciona como uma espécie de código escondido dentro de textos enviados aos sistemas de IA. O objetivo seria induzir a ferramenta a produzir respostas favoráveis ou alterar interpretações automáticas durante a análise processual.

Em nota oficial, o presidente do STJ, ministro Herman Benjamin, afirmou que o sistema de inteligência artificial da Corte possui mecanismos para impedir esse tipo de manipulação.

“O STJ Logos (sistema de IA generativa elaborado pela corte) já foi desenvolvido com comandos específicos que impedem estas artimanhas de atuar. Estamos mapeando todas as tentativas de prompt injection para permitir a aplicação de sanções processuais e a devida apuração de responsabilidade administrativa e criminal dos envolvidos”, declarou o ministro.

De acordo com o tribunal, existem ao menos três camadas de segurança para evitar que instruções externas interfiram no funcionamento da inteligência artificial utilizada pela Corte.

Levantamento obtido pela TV Globo aponta que pelo menos 11 processos já apresentaram indícios do uso da técnica. Os casos são da área criminal e envolvem ações originárias de Mato Grosso do Sul, São Paulo, Minas Gerais e Distrito Federal.

Advogados de Brasília entregaram documentos ao STJ indicando possíveis irregularidades e solicitaram a abertura de investigações. As denúncias também foram encaminhadas ao Conselho Nacional de Justiça (CNJ).

O uso indevido de inteligência artificial no Judiciário vem gerando preocupação crescente. Casos semelhantes já foram identificados em outros tribunais brasileiros, incluindo a Justiça do Trabalho no Pará.

O CNJ já recomendou a criação de um banco nacional de prompts para reduzir vulnerabilidades e reforçar a segurança dos sistemas de IA utilizados pelo Poder Judiciário.